Những khắc biệt về ý kiến giữa Hoàng Đế Phương Đông và Đại Giáo chủ Ravenna tiếp diễn. Ông triệu tập một công đồng để lên án lạc giáo bài trừ ảnh thánh (đập phá các ảnh thánh). Gregorius II đã phản ứng lại sắc lệnh của triều đình ở Constantinople nghiêm cấm việc tôn kính ảnh tượng thánh. Các tỉnh của Ý nổi dậy chống lại quân đội của hoàng đế Leo III; nước Ý đã trục xuất được bè phái Phá Huỷ Tượng Thánh. Ông thực hiện một cuộc phúc âm hoá mạnh mẽ nơi dân tộc Đức.

Ðức Grêgôriô làm Giáo hoàng trong 15 năm. Trong thời gian này, ông tổ chức các thượng hội đồng để chấn chỉnh các nhũng lạm, ngăn chặn lạc giáo và cổ vũ tinh thần kỷ luật và luân lý. Ông tái xây dựng một phần lớn các tường thành Rôma để bảo vệ thành phố này chống với các cuộc tấn công của quân Lombard. Gregorius II tái thiết nhiều nhà thờ, và đặc biệt rất quan tâm đến người đau yếu và người già. Ðan viện thật lớn gần nhà thờ Thánh Phaolô đã được tái thiết, cũng như tu viện của Monte Cassino mà quân Lombard đã phá hủy cách đó 150 năm. Và cũng như Ðức Grêgôriô I, ông biến dinh thự của gia đình mình thành một đan viện.

Trước việc tranh chấp ảnh tượng Đức Grêgôriô II nói: "Không được thờ ảnh tượng, cũng không được đập phá". Thái độ khôn ngoan này không vừa ý các hoàng đế Đông Phương đập phá ảnh thánh, gây khó dễ cho Toà Thánh. Một đàng, Ðức Grêgôriô cố gắng thay đổi ý nghĩ của hoàng đế. Ðàng khác, ông khuyên dân chúng trung thành với hoàng tử, luôn luôn khuyến khích các Giám mục chống với tà thuyết.